Khi các tiên đề Peano lần đầu tiên được đề xuất, Bertrand Russell và những người khác đã đồng ý rằng các tiên đề này ngầm định nghĩa những gì chúng ta muốn nói là "số tự nhiên".[17] Henri Poincaré thận trọng hơn, nói rằng chúng chỉ định nghĩa số tự nhiên nếu chúng nhất quán; nếu có một bằng chứng bắt đầu chỉ từ những tiên đề này và tạo ra mâu thuẫn như 0 = 1, thì các tiên đề không nhất quán và không định nghĩa bất cứ điều gì.[18] Năm 1900, David Hilbert đặt ra vấn đề chứng minh tính nhất quán của họ chỉ sử dụng phương pháp hữu hạn như vấn đề thứ hai trong số hai mươi ba vấn đề của ông ấy.[19] Năm 1931, Kurt Gödel đã chứng minh định lý không hoàn chỉnh thứ hai của mình, điều này cho thấy một định lý nhất quán như vậy không thể được hình thức hóa bởi chính số học Peano.[20]

Mặc dù người ta cho rằng định lý của Gödel loại trừ khả năng chứng minh tính nhất quán hữu hạn cho số học Peano, nhưng điều này phụ thuộc vào ý nghĩa chính xác của một định lý hữu hạn. Chính Gödel đã chỉ ra khả năng đưa ra một định lý nhất quán hữu hạn về số học Peano hoặc các hệ thống mạnh hơn bằng cách sử dụng các phương pháp hữu hạn không hình thức hóa được trong số học Peano, vào năm 1958, Gödel đã xuất bản một phương pháp chứng minh tính nhất quán của số học sử dụng lý thuyết loại hình.[21] Năm 1936, Gerhard Gentzen đã đưa ra một định lý về tính nhất quán của các tiên đề của Peano, sử dụng quy nạp siêu hạn cho tới một số thứ tự gọi là ε0.[22] Gentzen giải thích: "Mục đích của bài viết hiện tại là chứng minh tính nhất quán của lý thuyết số cơ bản hay nói đúng hơn là rút gọn câu hỏi về tính nhất quán về các nguyên lí cơ bản nhất định". Định lí của Gentzen được cho là có tính hữu hạn, vì số thứ tự siêu hạn ε0 có thể được mã hóa bằng các đối tượng hữu hạn (ví dụ, như một máy Turing mô tả một trật tự phù hợp trên các số nguyên, hoặc trừu tượng hơn là bao gồm các cây hữu hạn, được sắp xếp tuyến tính phù hợp). Việc định lí của Gentzen có đáp ứng các yêu cầu mà Hilbert đã hình dung hay không vẫn chưa rõ ràng: không có định nghĩa được chấp nhận chung về nghĩa chính xác của định lý hữu hạn là gì, và bản thân Hilbert không bao giờ đưa ra một định nghĩa chính xác.

Đại đa số các nhà toán học đương đại tin rằng các tiên đề của Peano là nhất quán, dựa vào trực giác hoặc chấp nhận một định lý nhất quán như định lý của Gentzen. Một số ít các nhà triết học và toán học, trong số họ cũng ủng hộ chủ nghĩa hữu hạn cực đoan, từ chối các tiên đề của Peano vì việc chấp nhận các tiên đề cũng có nghĩa là chấp nhận tập hợp vô hạn của các số tự nhiên. Ví dụ như, phép cộng (bao gồm cả hàm kế sau) và phép nhân được coi là toàn ánh. Kì lạ là, tồn tại các lý thuyết tự kiểm chứng tương tự như PA nhưng có phép trừ và phép chia thay vì phép cộng và phép nhân, mà được tiên đề hóa theo cách để tránh chứng minh các mệnh đề tương ứng với tính toàn xạ của cộng và nhân, nhưng vẫn có thể để chứng minh tất cả định lý đúng lớp Π 1 {\displaystyle \Pi _{1}} của PA, và vẫn có thể được mở rộng thành một lý thuyết nhất quán chứng minh tính nhất quán của chính nó (rằng không tồn tại một định lí "0 = 1" theo kiểu Hilbert).[23]